En interne, OpenAI a mis en place un dispositif baptisé "Project Lily". Une centaine de prestataires est chargée de relire des conversations réelles d'utilisateurs de ChatGPT. Ces derniers notent la qualité des réponses générées par le chatbot. Mais les utilisateurs concernés, eux, ne sont pas informés en détails de ces pratiques.
Les prestataires accèdent à un tableau de bord où ils choisissent une tâche avant de lire un prompt anonymisé, parfois accompagné d'un résumé de mémoire incluant la localisation de l'utilisateur. Ils notent ensuite plusieurs réponses générées par ChatGPT, puis justifient leur choix par écrit.
Une note sur 7 et un filtre de confidentialité imparfait
Le prestataire lit d'abord le prompt, résume en une phrase ce que l'utilisateur cherche à obtenir, puis compare quatre réponses générées par ChatGPT. Il doit relever au moins trois éléments alignés ou non avec le comportement attendu du modèle. Chaque réponse reçoit ensuite une note de 1, jugée inacceptable, à 7, jugée difficile à améliorer, avec une vigilance accrue sur les réponses médicales, juridiques ou financières dépourvues de sources.
Avant d'arriver jusqu'aux prestataires, les échanges passent par un modèle de filtrage nommé Privacy Filter. Ce dernier est censé retirer les informations personnelles. OpenAI reconnaît que cet outil peut parfois laisser échapper des identifiants peu courants ou mal doser la suppression. Sollicitée pour savoir si elle avait explicitement prévenu ses utilisateurs de cette relecture, OpenAI n'a pas répondu. Sur son site, l'entreprise ne mentionne la lecture humaine que dans le cadre de contenus signalés ou à risque. Mais pas pour cet usage. Dans les paramètres du chatbot, on retrouve le réglage "Améliorer le modèle pour tous". Il est possible de le désactiver. Mais l'option est en opt-out par défaut sur les formules Free, Plus et Pro, et désactivée sur les offres Enterprise, Business et Edu. Et elle ne s'applique pas aux conversations déjà échangées.
Et il n'y a pas qu'OpenAI….
Anthropic a confirmé à 404 Media recourir au même type de relecture humaine pour améliorer les futures réponses de Claude. L'entreprise déploie ce même dispositif, sauf pour les utilisateurs ayant désactivé ce réglage. Notons également que l'identifiant est dissocié de l'adresse email. Retrouvez davantage d'informations sur la gestion de la vie privée au sein de Claude avec un opt-out disponible depuis les paramètres de confidentialité. Même chose chez Google avec Gemini.
Les prestataires analysant ces conversations passent par un cabinet de recrutement, Crossing Hurdles, lequel les oriente vers Mercor, la société chargée de les rémunérer. Un travailleur interrogé par 404 Media, basé en Amérique du Nord, indique percevoir plus de 50 dollars de l'heure, un tarif supérieur à celui pratiqué ailleurs dans la modération de contenu ou l'annotation de données. De son côté, Meta avait cessé de collaborer avec Mercor en avril après une fuite de données ayant touché cette société.
